异构多智能体 LLM 的免预填充跨家族 KV 缓存迁移
🧭 多智能体异构 LLM 缓存迁移
University of Southern California, USA · Seoul National University, Republic of Korea · New York University, USA
冻结两端模型，通过结构对齐、映射与校准实现跨家族 KV 缓存迁移，免预填充加速异构多智能体通信
📌 工作参考价值（4 点）
- 多角色 Agent 系统若采用不同模型家族（如大模型做规划、小模型做执行），在共享长上下文（如用户历史、商品列表、prompt 模板）时，优先用 KV cache 迁移替代重新 prefill，可显著降低首 token 延迟。
- 跨模型 KV 对齐可采用“冻结两端 + 小型映射器/校准器”的方式，不扰动原有模型权重，部署风险低；若要落地，可在固定模型对（如主链路模型↔轻量 reranker）预训练映射器。
- 长上下文收益更大（32K 下加速 10.7×），适合电商会话中拼接长商品序列、多轮决策历史；短上下文也有收益但需评估额外映射开销。
- 该方法与文本通信在多智能体基准上表现持平，说明在可靠映射下可无精度损失换取推理加速，适合对延迟敏感的在线 Agent 编排。
双层协调反思：多智能体 LLM 系统的博弈论方法
🧭 多智能体 LLM 协调与反思理论 ★ 深度解读
UCL Centre for Artificial Intelligence · University of Liverpool · Huawei
用双层博弈与漂移分析形式化多智能体反思，提出需环境验证门控的 SRMA 更新
📌 工作参考价值（5 点）
- 反思记忆更新不要无条件 commit 所有 reflection；引入 grounded evaluator（线上 reward、模拟器、规则校验、AB 指标）作为 gate，只在 candidate memory 使 verifier risk 严格下降时接受。实验中这使 harmful 接受率从 34.5% 降到 6.2%，最终风险近似减半。
- 任务分解时显式量化耦合：共享特征/约束/接口越多，worker 子博弈均衡偏离越大（slack ηc≤2dmaxκ）。在电商多 agent 工作流中，应尽量按商品类目、用户分群或流程环节做低耦合拆分，并评估共享状态对最终收益的影响。
- 对纯文本 LLM-as-judge 的反思质量保持警惕：理论上存在 text-indistinguishable 环境，任何只看 transcript 的 gate 都无法一致改进；在可执行/可验证场景优先使用环境信号（规则引擎、SQL 校验、线上小流量实验）做 gate。
- 面对分布漂移（大促、季节、策略变化）对 memory 做重锚定：定期用当前环境重新评估候选与当前记忆并触发替换。论文中重锚定使 switch time 降低 67.9%，regret 降低 67.0%。
- 若 evaluator 随机/噪声大，增加探测次数 K 并用 Hoeffding 置信区间比较，可把误接受率从 28.4% 降到 6.8%，同时自适应调用减少 63.6% evaluator cost。